测试时迭代扩展至数万步的循环原生注意力残差
🧭 循环 Transformer 测试时迭代扩展
The Hong Kong Polytechnic University · Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences · Peng Cheng Laboratory · University of Chinese Academy of Sciences · ELLIS Institute Tübingen
提出 InfiLoop 循环原生残差连接，使 7M 模型在数万次测试时迭代中保持推理提升，Sudoku 97.9%，ARC-AGI-2 13.6% pass@2
📌 工作参考价值（4 点）
- 对 Agent 多轮推理/工具调用场景：借鉴 InfiLoop 的循环原生残差，在 agent 状态更新中引入 content-based weighting + learned temporal decay，保留关键中间推理、抑制噪声 proposal，避免长链路中正确中间状态被覆盖。
- 工程实现上：exact streaming recurrence 使聚合内存恒定，适合在线推理和流式数据处理；在电商推荐中可用于实时会话状态维护或长期用户行为序列建模，避免循环步数增加带来的记忆膨胀和误差累积。
- 测试时扩展以小参数（7M）获得显著推理提升，对资源受限的线上推理服务有参考价值：可以设计轻量循环模块，通过增加循环步数而非模型参数来提升复杂 query 理解或多步策略决策能力。
- 普通 residual connection 在 loop 中可能不够，需要为循环结构单独设计门控残差；具体 trick 是学习每个新更新接受多少、保留多少，而非简单加权平均。
对话生成制品修订传播的低成本测试时计算探索
🧭 LLM 评估 · 修订传播与测试时计算
NTT, Inc.
提出对话生成制品的修订传播基准，评估九种测试时计算方法，三路并行采样+选择最具性价比
📌 工作参考价值（3 点）
- 在对话式商品推荐或营销文案生成中，用户只给出局部修改请求（如更换目标人群）时，容易造成预算、卖点、行程等字段不一致；可以把该工作的方法迁移进来：在修订 prompt 中显式让模型列出所有受影响字段或依赖关系，并做一次自检，确保局部改动被传播到所有相关部分。
- 测试时多采样+选择是低成本的准确率提升手段：生成 3 个候选修订，用 LLM-as-judge 或 medoid 选择最优，比单次生成或长链反思更划算，适合线上低延迟、低预算的 LLM 修订任务。
- 可以建立小规模“修订传播”评测集，模拟用户局部修改请求，检查模型是否同步更新关联字段，作为对话式推荐助手或内容生成引擎的离线回归评估。
ParaTempo：基于时序置信度的高效并行推理
🧭 LLM 推理 · 分支级动态计算分配
Shanghai Jiao Tong University · University of Pennsylvania
无需训练的异步并行推理框架，用时序置信度驱动分支剪枝/早退/分叉/投票停止，降延迟 21.8-32.2%、token 18.1-30.3% 且精度持平
📌 工作参考价值（4 点）
- 生成式推荐/Agent 多路径决策：可把“周期性探测答案分布 + 时序置信度”作为分支管理信号，替代 final consensus 或局部 token confidence，更早识别低质分支；适合电商复杂 Agent 的规划/工具调用、搜索 Query 多路改写投票等在线场景。
- 工程实现无需训练，异步不等待慢分支：对商品文案多版本生成、RAG 多路检索答案生成等，可借鉴“低置信剪枝 → 高置信早退 → 释放算力分叉新分支”的编排，降低 token 量与 P99 延迟。
- 时序置信度计算可复用：对每个分支按滑动窗口聚合最近 probe 的答案分布，度量 dominant answer 集中度，作为收敛预警/停止投票信号，比 token-level entropy 更稳定；在生成式推荐语义 ID 投票或用户意图多解评估中可试。
- 停止条件可参考 confidence-weighted vote 集中而非全分支完成，适合需快速响应、长尾分支拖累明显的业务。
自验证改良：通过联合判定与置信度强化学习实现自适应测试时计算
🧭 自适应推理 · 自验证强化学习
Sun Yat-sen University · Guangdong Key Laboratory of Big Data Analysis and Processing · X-Era AI Lab
学习自验证与置信度作为内部控制信号，在推理时自适应分配计算预算，无需外部验证器
📌 工作参考价值（4 点）
- 多轮决策的自适应终止：在推荐Agent或对话系统中，可以借鉴SVR让模型在对每轮输出（如推荐列表、搜索建议）同时生成质量判定和置信度，达到阈值则提前终止交互，节省LLM调用成本。
- 无需外部监督的自我验证训练：通过奖励校准自验证正确性，模型能内生判断能力，适用于电商场景中缺乏及时反馈的推荐解释、文案生成等任务，训练时只用最终答案正确性，推理时自我把关。
- 联合输出校准与决策：将离散判定与连续置信度联合输出，并通过校准奖励使其对齐真实准确性，该思路可迁移到CTR预估中的不确定性建模或排序模型的置信度输出。
- 自适应计算分配：对简单样本自动减少推理步数，复杂样本多步迭代，类似思想可用于动态召回、重排序的算力分配，例如对低候选集质量的请求执行更多召回或精排步骤。
LoopCoder-v2：仅一次循环实现高效测试时计算扩展
🧭 并行循环Transformer · 增益-成本权衡
Beihang University · IQuest Research · Langboat · Renmin University of China
并行循环Transformer仅循环两次即达最优，平衡表征增益与位置偏移代价
📌 工作参考价值（4 点）
- 在Agent/工具调用场景中，可借鉴并行循环Transformer设计，通过共享KV缓存的滑动窗口注意力与跨循环位置偏移，在不显著增加显存的前提下实现测试时计算扩展。
- 循环次数并非越多越好：实验发现2次循环是最优的，再增加循环收益递减甚至退化；在推荐/搜索Agent的迭代推理中，建议通过诊断（表征多样性、更新幅度）确定最佳推理轮次，避免盲目堆叠。
- 跨循环位置偏移引入的边界失配是固定代价，当表征精炼增益缩小时会成为主导；在设计迭代式推荐模型（如循环精炼用户/物品表示）时，需权衡每次迭代的增益与固定结构偏差。
- 若要将循环机制用于电商生成式推荐或搜索，可尝试用一个共享的Transformer块多次循环生成候选物品的Semantic ID，并监控循环间的表征振荡，在2次循环附近寻找性能甜区。
失败推理轨迹暗含可修复性，无需阅读文本即可诊断
🧭 推理模型测试时故障诊断与路由
Mila - Quebec AI Institute · Université de Montréal · Polytechnique Montréal · CHU Sainte-Justine
从失败轨迹的分布特征中提取三个问题级特征，实现测试时故障分类与路由，提升修复成功率12.2%。
📌 工作参考价值（4 点）
- 在 Agent 多步推理或推荐解释生成中，可利用轨迹分布特征（如输出一致性、多样性）区分偶发性失败与结构性失败，从而决定是重试、引导还是更重干预，避免无谓计算。
- 提出的无训练路由规则直接使用输出级别统计量（无需解析文本），可嵌入到线上系统实现快速失败分类与资源分配，特别适合延迟敏感的电商搜索或对话推荐场景。
- 特征跨模型家族迁移，意味着对黑盒推理 API 也能通过采样子集构建诊断器，无需访问权重或训练数据，适合在第三方模型上部署。
- 通过分析不同后训练方法下的失败地形，可指导 fine-tuning 策略：若模型在特定失败类别上聚集，可针对性补充训练数据或调整偏好。
面向CTR预测的选择性测试时计算缩放：不确定性触发特征路径探索
🧭 测试时优化 · CTR预测 · 不确定性估计 ★ 深度解读
Alibaba Group
提出训练无关、模型无关的测试时框架UTTSI，根据样本不确定性自适应分配多路径探索，显著提升CTR预测性能
📌 工作参考价值（4 点）
- 不确定性感知的推理预算分配：在电商推荐中，用户/物品交互稀疏导致部分样本预测不可靠。UTTSI 通过 Count-Min Sketch 统计特征频率作为先验，结合模型 logit 置信度（或梯度属性）计算样本不确定性，从而为高不确定性样本投入额外计算，低不确定性样本快速通过。该方法无需修改模型，可轻量植入现有线上服务，尤其适合特征稀疏的业务。
- 多路径特征探索与一致性加权：对高不确定性样本，基于频率和属性分数随机采样生成多个特征子集，并行做多次前向预测，再用一致性加权聚合，可平均化噪声、提升鲁棒性。工程上可将多个子路径预测部署在并行 worker 上，保持单次前向延迟不变，适合有GPU平算资源的在线推理。
- 自适应特征过滤：通过离线计算每个特征场的可靠性阈值（分位数），推理时过滤低可靠性特征（频率+属性双低），简单有效。可单独作为一种特征去噪 trick 应用于生成式推荐或 Agent 的输入预处理，在保证高置信度特征的同时抑制噪声。
- 测试时计算缩放的范式迁移：本工作表明，即使不改变模型结构和训练流程，仅在推理时按需分配计算，也能带来可观的线上收益（A/B CTR 相对提升 5.3%）。对于有严格延迟要求但有额外算力的电商推荐系统，可以借鉴这种“推理时计算预算分配”思想，对低置信度请求进行多路召回或额外特征融合，而不影响基础链路。